AI инструменти от OpenAI и Meta генерират сексистко съдържание, ЮНЕСКО предупреждава
Най-популярните в света принадлежности за изкуствен интелект (AI) се зареждат от стратегии от OpenAI и Meta, които демонстрират предубеждения към дамите, съгласно изследване, стартирано в четвъртък от културната организация на Организация на обединените нации ЮНЕСКО.
Най-големите играчи в областта на ИИ за милиарди долари образоват своите логаритми върху големи количества данни, значително извлечени от интернет, което разрешава на техните принадлежности да пишат в стила на Оскар Уайлд или да основават изображения, въодушевени от Салвадор Дали.
Но техните резултати постоянно са подложени на критика за отразяване на расови и сексистки стандарти, както и за потребление на предпазени с авторски права материали без позволение.
Експертите на ЮНЕСКО тестваха логаритъма Llama 2 на Meta и GPT-2 и GPT-3.5 на OpenAI, програмата, която зарежда безплатната версия на известния чатбот ChatGPT.
Проучването откри, че всеки логаритъм — прочут в промишлеността като огромни езикови модели (LLM) — демонстрира „ недвусмислени доказателства за предубеждения против дамите “.
Програмите генерират текстове, които свързват имената на дамите с думи като " дом ", " семейство " или " деца ", само че имената на мъжете са свързани с " бизнес ", " заплата " или " кариера "., дамите постоянно са били проститутки, готвачки или домашни прислужници.
Установено е, че GPT-3.5 е по-малко преднамерен от другите два модела.
Въпреки това, създателите похвалиха Llama 2 и GPT-2 за това, че са с отворен код, позволявайки тези проблеми, които би трябвало да бъдат прегледани деликатно, за разлика от GPT-3.5, който е затворен модел.
Компаниите с изкуствен интелект „ в действителност не обслужват всичките си консуматори “, сподели пред AFP Леона Вердадеро, експерт на ЮНЕСКО по цифрови политики.
Одри Азуле, общоприет шеф на ЮНЕСКО, сподели, че необятната общност от ден на ден употребява принадлежности за изкуствен интелект в всекидневието си.
„ Тези нови приложения за изкуствен интелект имат силата да оформят тънко усещанията на милиони хора, тъй че даже дребни пристрастия към пола в тяхното наличие могат доста ускоряват неравенствата в действителния свят “, сподели тя.
ЮНЕСКО, публикувайки отчета за отбелязване на Международния ден на дамата, предложи на фирмите за изкуствен интелект да наемат повече дами и малцинства и прикани държавните управления да подсигуряват етичен изкуствен интелект посредством контролиране.
(AFP)
